어시스턴트 API 테스트 회고 | 매거진에 참여하세요

저희 팀은 카페나 커피 정보에 따른 상호작용 데이터를 기존의 서비스나 플랫폼에서 검색하기 매우 까다로웠던 조건을 쉽게 검색하기 위해

유저가 가장 많은 시간을 투자하는 데이터 체크 부문을 확인 하며 해당 요소들에 대한 DB 를 수집 하여 일부 프롬프드를 만들고

초기 단계에 어시스턴트 API를 내부적으로 테스트를 해서 생각보다 놀라운 퍼포먼스를 도출 할수 있었습니다. 지금은 GPT 4o 모델이 나왔고

더욱 품질이 좋아 졌으니 . 이에 대해 별도로 영위하시고자 하는 산업 영역의 db를 구성 하시고 테스트 해보시는것을 추천 드릴꼐요.!

나만의 챗봇은 GPTS 로 충분하고 누군가 혹은 유저와 같이 사용을 하고 싶다. 하면 어시스턴트 API 를 추천 드립니다.

매우 간략하게 DB 를 구성하고 비즈니스 적으로 돌아가는지 확인 후 추가적으로 보완할 부문을 찾아 디벨롭 하는게 제가 테스트및 선호하는 방법 이였습니다.

아무래도 AI 분야 쪽 지식이 미흡하고 역량도 부족하기 때문이기도 해요.

극 초기엔 구글시트에 입력폼 정보를 실시간으로 받고 / 이를 일정 주기마다 업데이트 해서 반영하였습니다.

토큰 비용은 다소 발생 하였으나 프롬프드 조정, 및 벡터 db 를 활용한 벡터서치를 노려본다면 외부 논문이나 테스트 결과에 따르면

90% 정도 토큰 비용을 절감 할수 있을 정도로 최적화가 가능해 보입니다.

지금은 국내 RAG 관련 솔루션 기업들도 많이 나왔으니 둘러보시는것도 추천 드릴꼐요.!